代数世界模型:从探索到证明
🧭 形式化世界模型构建与证明
Zhejiang University · Tsinghua University · Shanghai QiZhi Institute
AWM将未知环境探索与假设检验转化为可被Lean形式化的代数模型,能证明不可达性与最优界
📌 工作参考价值(4 点)
- 在动态未知环境(如策略模拟、A/B测试前验证)中,用可执行假设+形式化验证替代黑盒模型,可证明目标不可达或边界,避免无效实验投入。
- 把交互中发现的规则提取为类型化对象与共享规则,并用范畴论引导简化,有助于构建可解释、可审计的决策规则集,降低策略上线风险。
- 反馈驱动的规则修订机制:仅给出“存在更优解”的弱反馈即可推动模型更新,可借鉴到自动策略迭代与约束优化中。
- 但应用场景偏形式化/游戏环境,直接迁移到大规模推荐系统有距离,主要价值在可解释规则建模与复杂约束下的可靠性保障。
坑点预测世界模型引导黑盒 LLM Agent
🧭 世界模型引导黑盒 LLM Agent ★ 深度解读
University of Wisconsin–Madison · AWS AI
用外部世界模型仅预测潜在坑点并选择性介入,SFT+GRPO 训练,显著提升黑盒 LLM Agent 成功率
📌 工作参考价值(4 点)
- 在电商/搜索的 Agent 工作流中,不要每步都注入外部知识;训练一个“坑点检测器”仅在预测到失败风险时介入,可大幅减少 API 调用并降低对主 Agent 的干扰。可复用 PAWM 的 gate 机制:世界模型输出 <pass> 或具体警示,主 Agent 仅在收到警示时才重新考虑动作。
- 构建训练数据时,利用成功/失败轨迹对比定位关键失误步骤,并用 LLM 生成抽象化、不泄露未来信息的坑点描述;对 <pass> 样本进行下采样以平衡正负比例(论文发现 0.75–1.0 的 pass-to-anticipation 比例最优),可迁移到业务中的异常检测/干预模型训练。
- 将辅助模型与黑盒主模型用 GRPO 联合训练:以任务成功率为奖励,用 group-relative advantage 更新辅助模型,能显著提高辅助模型在实际 Agent 中的有效性;训练出的辅助模型可跨多个黑盒主模型迁移,适合作为独立服务部署。
- 世界模型的输出内容设计:预测“到下一个子目标的多步未来”比预测下一步观察或完整剩余轨迹更有效;单步预测信息量不足,过长预测误差累积且可能误导。在推荐/搜索 Agent 的规划辅助模块中,应聚焦于有意义的里程碑边界。
语言模型作为 AI 研究世界模型
🧭 AI 研究 Agent 的世界模型
Amazon · UC Santa Cruz · Emory University · Pennsylvania State University · UC Santa Barbara
用真实实验历史微调 LLM 作为研究世界模型,显著提升候选实验干预排序与自动研究收益
📌 工作参考价值(4 点)
- 在电商/广告实验中,收集历史 A/B 测试、模型调参、策略变更的实验记录(实验条件 + 结果),用 LLM 微调成环境专属的“策略结果预测器”,对新策略做排序,能减少无效实验成本。
- 跨业务场景迁移:当新业务(如新推荐位、新广告产品)实验数据少时,用其他相似场景的历史实验数据预训练 world model,可大幅降低对新场景候选策略的选择 regret(如论文中跨环境减少 78% regret)。
- 多轮自动实验调优:在固定实验预算下,用 world model 先筛掉低潜候选,再做真实实验验证,能提高最终最优策略的收益(论文中提升 15.8%);可应用于搜索排序、广告出价、召回策略的自动搜参。
- 选择 LLM 作为 world model 时,注入领域实验知识比仅更换更强模型或增加推理长度更有效,因此应优先积累内部实验数据并微调。
Memento 3:通过反思式规则簿实现基于模型的递归自我改进
🧭 LLM Agent 通过可执行世界模型递归自改进 ★ 深度解读
University College London · Huawei Noah's Ark Lab, UK · University of Liverpool
让冻结 LLM Agent 用自然语言规则簿+可执行代码作为显式世界模型,通过反思与验证递归自改进,在 ARC-AGI-3 全部 25 个游戏达到人类动作效率天花板
📌 工作参考价值(4 点)
- 在电商搜索推荐 Agent 中,可把「用户意图/商品属性/召回规则」维护成 natural-language rulebook + 可执行代码,作为显式世界模型;用 action-observation 轨迹做 exact replay 验证,只接受能复现历史交互的规则/代码,避免 LLM 幻觉。
- 引入 Git 版本化记忆:每次规则修订/代码编译提交 commit,能 diff、回滚,便于线上排查与衰减实验;相当于把模型的「学习轨迹」变成可审计资产。
- population 扩展:同时维护多个世界模型假设,共享交互证据,用行为等价类采样保证探索多样性;在不确定用户意图或流量分布变化时,可以做多臂/集成式探索,降低单一错误假设的自我确认风险。
- 如果业务中需要 Agent 在无 reward 的交互环境中做事,可直接借鉴「反思→修订规则→编译为代码→验证」loop,把策略改进外置到可执行模型,而不是微调 LLM 参数,适合 rapid iteration 和低成本 rollback。
智能体编辑世界模型:为LLM智能体重新思考世界建模
🧭 Agent 世界模型 · 决策状态编辑 ★ 深度解读
中国人民大学高瓴人工智能学院
提出AEWM,将世界模型从预测环境观测转为编辑智能体状态,缓解任务状态污染并提升长程智能体表现
📌 工作参考价值(4 点)
- 在电商/搜索 Agent 场景,不要花大力气预测高熵搜索结果或工具返回,而是训练一个动作效应判别器(critical / exploratory / noisy),在真实执行前截断 noisy 决策,直接编辑 reasoning+action 再执行,能减少无效检索和错误假设累积。
- 三分类(critical / exploratory / noisy)比二元好坏更实用:保留信息收集类探索动作,避免过度剪枝;可用于 query 选择、页面抓取、工具调用门控等环节。
- 用修正后的轨迹做 rejection sampling fine-tuning(AEWM-RFT),可将在线干预能力蒸馏回小 agent,线上无需额外世界模型,适合部署受限场景;类似把 verifier / controller 蒸馏进策略模型。
- 数据合成可复用:用强模型标注成功轨迹中每步贡献类型,将被判为 noisy 的步作为 revision 训练样本,并依据后续真实执行是否取得实质进展过滤,能获得高质量的状态纠正数据。
记忆即计划:基于记忆接地规划的世界-动作建模
🧭 Agent 长程记忆与计划执行解耦
MaP-WAM 将长期记忆转化为稀疏视觉上下文与语言计划,由固定上下文执行器遵循,取得 RMBench 83.3% 成功率
📌 工作参考价值(4 点)
- 在需要长用户历史的推荐/Agent 场景,可借鉴“记忆即计划”:把长时间跨度的行为序列压缩为若干关键帧(或代表性 item 特征)+ 高层意图,供 planner 生成下一步计划,而非让 executor 每次都读全量历史。
- 计划与执行分离:规划器可以处理长历史并生成轻量计划,执行器只接收固定长度上下文和当前计划,结合 progress 预估实现自适应切换,在线推理延迟与历史长度解耦;结构化注意力支持 KV cache 可进一步降低重复规划成本。
- 对电商视觉/短视频推荐,如果任务依赖细粒度视觉证据,语言摘要会丢失信息,可保留用户最近强交互的视觉特征帧作为稀疏长期记忆,而不是仅存文本标签。
- 但这是机器人操作领域,所提 WAP 和进度对齐机制较复杂;直接迁移到推荐/广告需要简化:progress 可类比用户状态/会话阶段,可改造为 session 切分与 memory refresh 信号。
可编程世界模型
🧭 世界模型 · 显式状态与渲染解耦
Alaya Lab
将世界状态演化与视频生成解耦,用可执行程序维护持久全局状态,以3D OBB为中间表示驱动预训练视频模型
📌 工作参考价值(4 点)
- 在生成式推荐或广告文案生成中,可借鉴“显式状态引擎 + 生成渲染器”的架构:将库存、价格、用户状态等业务规则放在符号化状态机中维护,LLM 只负责生成符合当前状态的文案/推荐理由,避免长对话或多步推荐中事实不一致。
- 用 LLM 将自然语言策略转成可执行程序(如 on_hit、win/lose 规则)的思路,适合推荐策略的自动化编排:把运营规则(如“库存低于阈值则降低曝光”)用程序表达,可审计、可回滚,比直接让模型隐式学习更可控。
- 中间表示的做法——将结构化状态(如商品布局、用户行为序列)编译为生成模型的条件信号,可用于可控商品图/视频生成,提升布局、属性与业务约束的像素级对齐。
- 评估基准设计可迁移:对交互式推荐/对话系统,可采用 Count Accuracy 和 State Accuracy 这类细粒度状态一致性指标,衡量长程交互中的用户状态、上下文跟踪能力。
面向相机条件世界模型的奖励建模方法 WorldReward
🧭 多模态奖励建模 · VLM 视频评估
Fudan University · Tencent Hunyuan · Shanghai Innovation Institute · Shanghai Jiao Tong University · Shanghai Artificial Intelligence Laboratory
用 VLM 将长视频按动作分块并投票聚合,统一评测动作一致性与视觉质量
📌 工作参考价值(4 点)
- 长序列生成(如多步商品推荐、对话式导购、视频广告脚本)中,可借鉴“动作对齐分块 + 结构化证据 + 逐块决策投票”的思路,避免长上下文稀释局部关键信号,适合构建 LLM 评估器或奖励模型。
- 偏好数据构建可复用其管线:先由 frontier VLM 生成结构化判断,再用工具化 agent 审计和定向人工复核,降低标注成本并提高一致性,适用于内容生成质量评估、AIGC 审核等场景。
- 在电商多模态生成(如商品视频、虚拟试穿)中,建议拆分“任务完成度”与“画质/自然度”双 reward 分别聚合,避免单一指标失衡,便于 RL 后训练。
- 若业务涉及“按指令生成视频/图片”,可参考其 benchmark 设计:按人类偏好分维度(动作/外观/运动)测量 reward model 一致性,而非只看整体分数,从而更精准定位模型短板。
Puffin-World:用原生 3D 世界状态扩展统一多模态模型
🧭 多模态世界模型 · 3D 生成重建
S-Lab, Nanyang Technological University · University of Michigan · Beijing Jiaotong University · ACE Robotics
统一多模态架构,联合物理/几何/外观三态与 Omni-Camera 实现 3D 世界生成重建
📌 工作参考价值(4 点)
- 可借鉴「原生状态联合建模」:在商品理解/生成中,将视觉、深度/几何、物理属性(如材质、尺寸、重力约束)作为并行状态统一建模,替代只用图文 embedding,可提升家居、鞋服等品类空间一致性。
- 用显式 Omni-Camera 参数控制多视角生成:商品视频、虚拟试穿、3D 展示素材可 ground 绝对相机内外参,生成物理稳定、多角度一致内容,减少后期抖动与畸变。
- 外观-几何耦合生成:同时输出 RGB 和 depth 再用于重建,适合商品 3D 重建/AR 展示/虚拟棚拍,能对齐纹理与几何,降低“贴图漂移”。
- 闭环自校准探索思路可迁移到 Agent 拍摄/漫游:让模型根据当前状态规划下一视角并在线修正相机与场景参数,但需构建匹配业务场景的轨迹数据。
世界模型引导的反事实用户参与模拟强化学习
🧭 世界模型反事实用户模拟 · 推荐策略 RL ★ 深度解读
The Chinese University of Hong Kong · Zhejiang University · ByteDance China · MoE Key Lab of High Confidence Software Technologies, CUHK
用冻结 LLM 用户参与世界模型并行预测多候选 item 的异质反馈,转化为奖励训练 1.7B 推荐策略,跨域匹配或超过更大 LLM。
📌 工作参考价值(4 点)
- 把用户反馈模拟器当作离线 RL 奖励源:对同一 history 采样 G 个候选 item,让 UEWM 并行预测反馈,构造 same-state 反事实比较;这比从 logs 学 policy 或 SFT distillation 更符合策略梯度对「同状态多动作」的需求。
- 多信号反馈向量化 + 权重映射奖励:将点赞、分享、差评、评分、评论文本统一向量化,再用权重向量映射为标量 reward;在电商场景可以把点击、加购、收藏、评论情感按业务目标加权,而不是只看点击率。
- 小模型策略优化可落地:用 8B 模拟器奖励训练 1.7B 学生模型,在 Amazon Books/Movies 和 Google Local 上超过 SFT蒸馏和 DeepSeek-GRM 奖励,说明可低成本获得接近大模型的推荐策略,适合粗排/召回级小模型精调。
- 跨域迁移的边界要清楚:UEWM 从中文短视频迁移到英文电商/本地生活做评分/评论预测有效,说明学到的是「从历史推断用户动态」的通用过程;但它是纯文本、只建模用户侧动态,缺少视觉/价格/库存/平台侧约束,接入业务时需补齐多模态与曝光分配机制。
VeriPhy:面向世界模型评估与改进的可审计物理验证智能体
🧭 Agentic 物理推理验证与证据溯源
Carnegie Mellon University · Georgia Institute of Technology · Northeastern University · Adobe Research
用类型化物理义务和冻结专家证据做可溯源三态裁决,覆盖 228/304 个真实生成缺陷
📌 工作参考价值(4 点)
- 在商品短视频/广告创意质检中,可借鉴「先用纯文本 planner 生成 typed obligations 和静态 plan,再调用冻结专家工具」的架构:先定义必须验证的物理/视觉义务(如商品完整露出、文字可读、动作合理),避免 LLM 自由观察导致的遗漏和幻觉。
- 把每次模型判断封装为携带 provenance 的 evidence record,并输出 supported/contradicted/unknown 三态,而不是 scalar score;这样业务审核、badcase 复盘、合规审计能定位到具体帧/轨迹/OCR 证据,便于追责和修正。
- 将 critic verdict 作为 refinement 接口写回生成:在广告文案/视频生成中,不要只用总分 reward,而用结构化失败证据(哪句文案、哪个时刻、哪条义务 violated)驱动 prompt/policy 更新。
- 用 frozen low-level expert(OCR、分割、计数等)而非端到端大模型做测量,可降低幻觉并复用现有服务;在商品属性校验、广告落地页一致性检查中可落地。
用世界模型扩展自动研究智能体训练
🧭 智能体 RL 训练效率优化
University of Illinois Urbana-Champaign · Amazon
用世界模型替代真实环境执行,消除 AutoResearch RL 训练瓶颈,并引入去偏与降噪提升稳定性
📌 工作参考价值(4 点)
- 面向 Agent 后训练 RL:当环境交互成本远高于生成成本时,可训练一个世界模型替代真实环境执行,缓解训练吞吐瓶颈;在电商场景可模拟用户点击、搜索反馈等环境动态。
- 世界模型奖励存在偏差和噪声时,可借鉴 Online Debiasing 维护偏差估计并修正奖励,结合 Inverse-Variance Denoising 对高方差样本降权,提升 RL 训练稳定性。
- 小模型智能体后训练:用世界模型蒸馏环境反馈,可在有限算力下让 4B/9B 智能体逼近甚至超过更大开源模型,适合业务侧轻量级 Agent 部署。
- 该方法在 embodied VLA 策略上也有效,说明世界模型 RL 的分离生成与执行成本的思路具有跨任务迁移潜力。
PAWBench:视频世界模型概率对齐差距基准
🧭 世界模型评估 · 概率对齐
Shanghai Jiao Tong University · Shanghai AI Laboratory · Krea AI · Hugging Face · Shanghai Innovation Institute
构建50场景基准评估11个视频生成系统,发现无一能稳定复现物理行为的参考概率分布
📌 工作参考价值(4 点)
- 在生成式推荐或用户行为模拟中,不能只看单次生成结果的 plausibility;应增加分布级评估:对同一 context 重复采样,比较生成结果的类别/行为分布与真实分布的校准误差,捕捉模式坍塌与多样性缺失。
- PAWEval 的 outcome-level 思路可直接迁移:把高维生成内容映射到可判定的低维结果空间(如点击/转化/浏览路径类别),再做经验分布对比,避免像素级评估高成本且难判校准。
- 论文测试了语言 prompt、初始噪声、模型训练对预测分布的干预,对推荐系统里用 prompt 工程、采样温度/噪声、RLHF/DPO 调整生成分布有参考价值:应衡量这些干预对分布形状的迁移,而不仅是 top-1 指标变化。
- 若电商团队在训练 LLM/视频生成式的用户轨迹或广告创意世界模型,要注意当前模型即使内容真实,也未必覆盖全部有效行为;需要加入分布正则或多样性约束,避免只学到高频、低风险的输出。
长时程音视频生成:持久故事与交互世界
🧭 多模态生成 · 长时记忆与几何控制
Joy Future Academy, JD
JoyAI-Echo-1.5 用跨镜头记忆与 6-DoF 几何控制实现角色持久和交互世界,并以 Self-Gradient Forcing 训练因果生成器
📌 工作参考价值(4 点)
- 长视频变体的 composable cross-shot memory 聚合多镜头视觉证据和 speech-filtered speaker cues,可借鉴到电商短视频广告生成中:显式维护商品/人物外观与音色记忆库,避免多镜头口播或商品展示中的角色漂移,提升跨镜头一致性。
- 世界模型变体将异构导航输入统一为 calibrated metric 6-DoF 相机轨迹,经 geometry-aware conditioning 注入,可迁移到虚拟直播间、3D 商品展示或交互式试衣间,使鼠标/键盘/手柄等不同控制信号映射到统一几何表示,简化多端交互接入。
- 训练技巧 progressive teacher forcing + short/long-horizon Self-Gradient Forcing 在自生成 rollout 上训练,将一个双向模型转为 causal few-step generator,可借鉴到推荐系统里的用户行为序列生成或 query 序列预测,减少 teacher forcing 导致的 exposure bias,提升长序列生成一致性。
- 工程实现上,将 speech-filtered full-shot audio 作为 speaker cues 绑定音色,可复用于电商数字人直播的音画同步与角色一致性,降低对多模态对齐标注的依赖。
Twin:用测试时数字孪生玩未知游戏
🧭 测试时世界模型推断与规划 ★ 深度解读
Stanford University · Cornell University · University of Southern California · Yeshiva University
构建可执行世界模型,强制回放验证和规划后执行,以 93.3 分通关 ARC-AGI-3 23/25 个游戏
📌 工作参考价值(4 点)
- 对高成本真实动作(广告投放、push 打扰、人工客服介入)的探索策略,可借鉴 Twin 的 replay validation + halt-on-mismatch:用可执行代码模拟用户/市场动态,每次真实动作前强制模型回放历史交互,不一致就修复;执行中逐步校验,一旦预测失配立即停止并收集 counterexample,避免错误累积放大。
- 把 dynamics 与 goal/reward 显式分离,先验证转移模型,再通过假设-测试循环推断目标。在推荐/搜索中,用户意图常不可见,可先假设当前 session 目标(比价、闲逛、决策),用最小代价提问/推荐验证,而不是等点击或转化 reward 才优化。
- 让 LLM 生成可执行代码作为世界模型,而非黑盒神经网络,获得可解释、可验证、可 BFS 规划的优势;电商 Agent 可让 LLM 写业务规则或用户模拟器,通过离线日志回放验证,再用于策略推演和路径规划。
- 计算成本换真实动作数量:平均每个真实动作 224k tokens,但动作数减少约一半。对高价值动作划算,对高并发低风险推荐不划算;可按动作成本与风险决定是否启用 test-time compute。
Alaya-EVOKE:线性监督扩展与无限世界生成
🧭 交互式世界模型 · 长时记忆与蒸馏
MoE Key Lab of BIPC, USTC · Shanghai Innovation Institute · Alaya Lab
外部化世界状态并重新设计长时域教师,蒸馏出3步无CFG学生模型,实现持久记忆与持续生成
📌 工作参考价值(4 点)
- 外部可索引记忆库:将长会话状态存入 camera-indexed world state bank,按当前视图检索相关片段,避免上下文无限增长;在电商用户行为序列建模中可维护外部用户状态库,按当前 query/item 检索相关历史,而非全量塞入 prompt。
- 长时域教师训练:使用 chunk-wise 分组稀疏注意力 + 检索远处帧 + 线性注意力全局状态实现线性成本长序列监督;在序列推荐或会话模型训练长行为序列时可借鉴此架构降低计算与内存。
- 蒸馏方案:用 30 秒长时域 distribution-matching 目标 + self-forced rollouts 将长时一致性迁移到 3 步学生模型,并去除 CFG;在生成式推荐/文案生成中可用类似 rollouts + 分布匹配蒸馏提升 few-step 生成质量。
- chunk 级条件控制:支持在序列中途改变 prompt 和事件,适合交互式推荐/Agent 长任务中分段注入新指令,保持响应性。
AppDeltaWorld:基于转换的增量代码世界模型用于移动GUI智能体
🧭 增量代码世界模型用于GUI Agent训练
Nanyang Technological University · University of Electronic Science and Technology of China · Gaoling School of Artificial Intelligence, Renmin University of China · Xiamen University
提出增量代码世界模型,将GUI变化预测为可执行HTML更新,实现高保真模拟和策略自适应提升
📌 工作参考价值(4 点)
- 若需为电商App构建GUI自动化测试或用户模拟Agent,可利用AppDeltaWorld生成高保真合成轨迹,降低对真实交互数据的依赖。
- 过渡基约束与两层HTML生成思路可复用于生成推荐界面模拟环境,快速构建大规模交互训练数据。
- 测试时强化学习通过世界模型在线微调策略,可为生产环境中的Agent探索提供安全、低成本的试错途径。
- Code2World评估机制可指导推荐系统界面生成模块的优化,提升生成结果的布局合理性和元素复原度。
EnvACE:通过世界排练内化环境动力学用于智能体强化学习
🧭 Agent强化学习 · 世界模型内化 ★ 深度解读
Shanghai Jiao Tong University · Zhejiang University · National University of Singapore · Sun Yat-sen University · Tencent Inc.
让策略自身扮演环境生成响应,内化交互动力学,实现不依赖外部环境的智能体RL训练
📌 工作参考价值(4 点)
- 训练范式迁移:将环境响应生成的角色交给策略自身,省去构建昂贵的外部仿真环境。对于电商工具调用 Agent(查询库存、下单、修改订单)的训练,可直接用历史交互数据让模型同时学习“动作+响应”,大幅降低环境搭建成本。
- 角色明智 GRPO:对 acting 和 rehearsal 两个角色分别计算基线,但共享参数梯度更新。电商 Agent 训练时可将用户模拟、工具返回模拟作为 rehearsal 角色,与真实 action 角色联合优化,让策略更深刻理解交互因果关系。
- 测试时安全排练:在正式执行前,策略内部进行多次“想象推演”,汇总反馈后指导实际动作。适用于高风险场景(如退款、取消订单、修改支付方式),提前预测错误并修正参数,避免真实环境错误操作。
- 数据效率提升:世界排练允许在无外部反馈的条件下持续改进策略,可在离线数据上预训练 Agent,或结合少量真实交互微调,提升 RL 样本效率。
世界建模向何处去:面向持续进化智能体的交互式世界代理
🧭 Agent 世界代理与持续进化框架 ★ 深度解读
Shanghai AI Laboratory · Zhejiang University · National University of Singapore
将世界模型重构为以智能体为中心的世界代理,通过六种功能形式和三个赋能级别驱动智能体持续改善
📌 工作参考价值(4 点)
- 在推荐/搜索智能体中,可构建记忆代理(检索用户历史行为序列)、执行代理(模拟点击后页面状态)、奖励/验证代理(评估推荐内容的安全性或满意度),在推理时增强上下文(L1),或在训练时提供奖励/批判信号(L2)。
- 将世界代理定义为信息转移而非物理状态预测,设计可查询的反馈接口:例如,智能体在生成推荐理由前,可向验证代理查询“该理由是否合规/存在风险”,代理返回验证结果,避免直接线上试错。
- 借鉴 L3 代理-智能体共同进化:线上真实用户反馈(点击、停留、转化)持续更新世界代理(如刷新记忆库、调整风险模型),并将更新后的知识蒸馏回推荐策略,实现持续在线学习。
- 工程上采用模块化代理设计:每种代理(动力学、空间、执行、记忆、技能、奖励)独立维护,通过统一的信息转移接口为智能体提供反馈,便于迭代和扩展。
FactorJEPA:将单一未来分解为布局-实体-交互通道,用于拥挤南半球城市场景预测
🧭 世界模型 · 多模态动态预测
San Jose State University · UC Berkeley · Apple · Meta · PocketFM
将世界模型预测分解为布局、实体、交互三个因子,在拥挤南半球城市场景中显著提升预测精度与鲁棒性
📌 工作参考价值(4 点)
- 世界模型与电商/推荐业务距离较远,直接迁移价值有限
- 将复杂动态系统显式分解为场景布局、实体状态、交互关系的思路,可启发推荐系统中对用户状态、物品属性、交互关系的分离建模
- 使用 visibility gate 处理部分可观测(如用户行为缺失、冷启动)的设计,在序列推荐或 Agent 交互建模中有参考意义
- 提供大规模多样性数据集构建方法(覆盖22城市、多天气、混杂交通),对需要构建多域推荐数据集的团队有一定借鉴
PhiZero:基于物理语言的物理世界模型
🧭 物理世界建模 · 离散视觉表示
NLPR, Institute of Automation, Chinese Academy of Sciences (CASIA)
从野生视频自监督学习紧凑离散物理语言,先推理后渲染实现物理一致生成与零样本动作迁移
📌 工作参考价值(4 点)
- 将连续动态抽象为离散 token 序列的思路可迁移至用户行为建模:用 vector quantized 方式学习行为语义 ID,在紧凑空间内捕捉状态转移规律,降低下游序列预测的复杂度。
- 自监督学习“物理语言”的方法对无标注交互数据的表征学习有启发:从原始点击/购买序列中挖掘隐含因果结构,无需昂贵标注即可获得可推理的隐状态表示。
- “推理-渲染”分离的架构可拆解推荐系统:先由 Planner 生成抽象行为序列,再交由 Renderer 生成具体推荐内容,提升可解释性并支持可控生成。
- 主要贡献在物理世界建模,直接迁移至电商推荐场景的工程化价值有限,更多是概念层面的借鉴。
QQWorld:基于分位数-分位数匹配的世界模型正则化
🧭 世界模型潜在空间正则化 · QQ匹配
Xi’an Jiaotong University
用分位数-分位数匹配替代Epps-Pulley检验,解决世界模型潜在表示重尾控制失效问题
📌 工作参考价值(4 点)
- 若推荐模型(如VAE、扩散模型)需要隐空间服从高斯先验,可用QQ匹配替代KL散度,强制尾部对齐,可能增强生成多样性和分布外泛化。
- 跨批次QQ的内存库机制与推荐系统中动量对比学习(如MoCo)或历史嵌入缓存类似,能以低开销扩大样本池改善分布估计,值得在用户表征训练中尝试。
- 监控隐向量的QQ图(而非单一分布距离)可更早发现训练中的尾部问题,适用于大模型调优。
- 在涉及多步序列决策的推荐场景(如交互模拟),该正则化可提升世界模型稳定性,减少误差累积。
ShadowDancer:从视频与影子学习统一动力学表征实现任意动作控制
🧭 视频世界模型 · 动作表征学习
Alaya Lab · Shanghai Innovation Institute
通过影子对与跨影子预测解耦外观与动作,使视频世界模型零样本复用任意演示动作。
📌 工作参考价值(4 点)
- 解耦外观与行为的数据增强思路:在电商/推荐中,用户行为序列(动作)常与内容表象(外观)纠缠。可借鉴“影子对”构造:对同一意图(如搜索同一品类)在不同 UI 皮肤或不同设备下的交互对,训练模型剥离表面特征,得到更纯的意图表征,提升跨场景迁移能力。
- 通过预测任务学习不变表征:cross-shadow prediction 直接以预测配对样本为目标,隐式舍弃无关变化。推荐系统可构造类似预训练任务:给定同一用户在不同上下文下的行为序列片段,预测彼此,使模型聚焦于提取不变的用户潜在兴趣,减少 noises 影响。
- 无需标注的动作复用:该方法将已有视频片段直接转化为可复用的控制信号,无需额外动作标签。对应到 Agent 或营销内容生成,可利用历史用户交互轨迹作为模板,直接在新内容上“重放”类似动线,快速生成个性化交互流程。
- 长序列一致性控制:block-causal 架构与统一动力学表征保证长期回放稳定。在生成式推荐(如生成购物路径)中,可借鉴该结构维持多步生成的逻辑连贯性,避免中间步骤崩塌。
多轮长程规划的物理学:预训练与后训练阶段的智能体蒸馏研究
🧭 Agent 多轮长程规划能力分析
中国科学院自动化研究所复杂系统认知与决策智能重点实验室 · 中国科学院大学人工智能学院
构建可控环境系统分析LLM智能体多轮长程规划的获取、塑造与集成机制
📌 工作参考价值(4 点)
- 预训练数据构造:构建多轮交互推荐/搜索Agent时,预训练阶段加入显式世界模型(如状态转移链式推理)数据,并混合少量长程轨迹,仅靠原子技能无法组合泛化。
- 后训练算法选择:若预训练数据质量不高或任务轮次长,优先使用在线策略蒸馏(OPD)而非GRPO,OPD更新方向更一致,有效区域更广。
- 错误累积控制:长程任务中次优轨迹的误差放大效应显著,在推荐Agent流程中可植入早期信号校验或中断机制,防止错误级联。
- 多教师知识集成:引入不同领域知识时,避免直接蒸馏冲突的规划模式,可通过寻找共享模式实现跨环境泛化,部分共享模式支持持续学习。
SeerGuard:基于世界模型预测的移动GUI Agent安全框架
🧭 Agent安全框架 · 世界模型预测
JIUTIAN Research
通过预执行指令筛查与动作风险评估,结合多任务世界模型,显著提升GUI Agent的安全效用并降低风险成本
📌 工作参考价值(4 点)
- 在 Agent 流程中集成预执行动作风险评估模块,利用世界模型预测后续状态和风险,可拦截支付、删除等高风险操作,避免不可逆后果。
- 借鉴多任务学习构建安全增强世界模型(SAWM),同时优化语义下一状态预测与安全评分,提升风险评估的准确性和泛化性,可迁移至电商购物 Agent 的安全审核。
- 指令级高风险任务筛查作为第一道防线,快速拒绝“转账”“清空购物车”等敏感指令,降低系统整体风险暴露。
- 引入安全-效用得分(SUS)和风险成本得分(RCS),为 Agent 安全与性能的平衡提供可量化的评估指标,适用于推荐或对话 Agent 的安全测试。
无限世界与多样交互
🧭 世界模型·多代理实时交互生成
Robbyant
支持无限时长实时交互的世界模型,通过因果预训练、模型蒸馏与双代理架构实现丰富动作与环境生成
📌 工作参考价值(4 点)
- 因果预训练保证长序列生成质量一致,可借鉴到电商推荐中的用户长期行为序列建模或生成式推荐的长序列解码。
- 从大模型蒸馏出低延迟实时变体的方法,可直接用于推荐系统在线推理,平衡效果与延迟。
- 双代理架构(规划代理+执行代理)可复用到对话式推荐或交互式搜索中:一个代理解析用户意图并规划步骤,另一个代理生成推荐结果或操作。
- 多样化交互元素扩增的思路,可用于推荐系统多模态内容生成,增加物料多样性。
RoboTALES: 用任务对齐模拟未来学习推理引导的机器人策略
🧭 LLM/VLM 协同推理与视频想象策略
University of California, San Diego
提出层次LLM规划器与VLM批评家联合引导视频生成,使机器人策略在长视野操作任务上显著优于现有方法
📌 工作参考价值(4 点)
- 层次化LLM任务分解可用于复杂推荐流程:将多步推荐(如先吸引兴趣再推荐买点)拆解为子目标序列,指导生成式模型逐步生成商品描述、话术或创意,提升过程可控性。
- VLM critic 反馈对齐生成目标:在文案/素材生成中引入视觉-语言模型做“想象结果”评估,通过 reward 微调内部表征,让生成内容更贴合最终转化意图,类似 RLHF 但针对多模态生成。
- 单阶段端到端训练框架:无需预训练视频模型分离,直接把规划、想象与策略学习串联优化,适合将 Agent 的规划模块与执行模块联合训练,减少模块间误差累积。
- 用生成式模型做“世界模拟器”:在推荐系统中,可以预测用户兴趣演化轨迹(想象未来行为),据此提前布局推荐序列,类似用扩散模型生成用户状态 rollouts。
WorldDirector:解耦式可控世界模拟与持久动态记忆
🧭 世界模型 · 视频生成与模拟
HKUST · Ant Group · ZJU · CUHK
将3D语义运动编排与视频生成解耦,用LLM生成控制轨迹,实现持久动态对象记忆与高可控长视频合成
📌 工作参考价值(4 点)
- 解耦控制与生成的思路可迁移至生成式推荐:先用 LLM 编排用户意图阶段或促销节律,再控制具体物品生成,提升推荐结果的可控性与逻辑性。
- 持久动态记忆模块启发长期用户兴趣建模:即使某类商品长期无交互,仍维持其隐状态,在重新出现时快速恢复相关性,可改进长序列召回。
- 利用 LLM 生成结构化控制信号(如行为路径)的方法,可用于模拟用户交互序列,生成高质量仿真数据,辅助离线策略评估和训练。
- 因果块自回归生成方式可类比于推荐中的分阶段决策,将推荐列表分块生成并保持块间一致性,避免一次性输出过长序列导致的逻辑断裂。
自我进化的世界模型用于 LLM 智能体规划
🧭 世界模型与记忆自进化增强 LLM Agent 规划
National University of Singapore · Singapore University of Technology and Design · Singapore Management University
提出 WorldEvolver:部署时通过记忆修订增强世界模型预测与规划,无需更新参数
📌 工作参考价值(4 点)
- 在搜索推荐系统中,可构建“世界模型”模拟用户对推荐结果的响应(点击、购买等),替代真实环境试错,加速策略优化。
- 分层记忆(情景记忆 + 语义记忆)可分别存储实时交互序列与长期行为规则,用于用户兴趣建模和动态策略提升。
- 选择性前瞻机制过滤低置信预测,避免劣质生成内容污染推荐或排序结果,可迁移至生成式推荐的幻觉控制。
- 自进化框架支持模型参数冻结下的在线适应性提升,适合电商/广告场景中对延迟敏感的大规模部署。
Qwen-AgentWorld:面向通用Agent的语言世界模型
🧭 语言世界模型增强Agent训练与规划 ★ 深度解读
Qwen Team
首个覆盖7个交互域的语言世界模型,通过三阶段训练实现高保真环境仿真,并验证世界建模可提升Agent策略与任务表现
📌 工作参考价值(4 点)
- 三阶段训练管线可迁移:CPT注入世界知识、SFT激活“下一状态预测”推理模式、RL强化仿真精度。此范式可用于训练电商场景的环境模拟器(如模拟价格变化、库存波动、用户行为反馈),为Agent提供安全训练环境。
- 信息论损失掩蔽:根据动作-观测的统计特征(重叠率、新颖度、Jaccard等)判定信息量,对低价值turn(如API回声、纯确认)屏蔽损失但保留上下文。推荐系统训练中可借鉴此方法,自动过滤低质量点击/曝光序列中的无信息step,提升学习效率。
- 世界模型作为Agent预训练任务:世界建模训练(预测环境反馈)可作为Agent策略学习的前置warm-up,显著提升下游任务表现。在电商Agent(如对话式购物助手)设计时,可先训练其预测用户回复或系统状态变化,再微调至目标任务,获得更强基座。
- 可控仿真暴露长尾风险:通过simulation instruction人为制造干扰(如部分返回结果、隐藏关键信息),迫使Agent学习处理罕见边缘情况,最终超越纯真实环境训练的效果。适用于电商高风险操作(大额退款、自动调价)的仿真训练,低成本覆盖长尾异常场景。
智能体模型批判:从代理到内生能动性
🧭 Agent 能动性分析与架构设计
Institute of Foundation Models, Mohamed bin Zayed University of Artificial Intelligence · School of Computer Science, Carnegie Mellon University
区分“代理式”与“内生式”AI系统,提出GIC架构以实现源于系统内部的真正能动性
📌 工作参考价值(4 点)
- 构建自主推荐Agent时区分“流程编排”与“内生能力”:当前多数推荐LLM Agent(如工具调用搜索)停留在agentic阶段,通过外部工作流拼接;真正能适应开放世界的推荐系统应走向agentive,让目标分解、用户身份理解、自我纠偏内化至模型,减少硬编码脚本。
- 在电商Agent中引入身份演化和自我调节:GIC架构的身份演化机制可用于用户建模,使Agent捕捉长期偏好变化而非仅反应当前会话;自我调节模块可监测推荐是否符合长期客户价值(如避免过度追求短期点击),自动调整策略。
- 利用分离的世界模型进行仿真推理:训练一个独立的世界模型(用户行为、市场环境模拟),Agent可在此模拟器中试错(simulative reasoning),安全地学习推荐策略,避免直接在线上探索带来的风险,尤其适用于高价值商品推荐或广告投放。
- 分级目标分解应对多目标冲突:电商场景下推荐常面临多目标(点击、转化、GMV、多样性),GIC的分层目标分解提供形式化框架,将抽象公司目标逐层拆解为可执行的子目标,并自主协调冲突。
DreamX-World 1.0:通用交互式世界模型
🧭 交互式世界模型 · 长时生成与相机控制
DreamX Team
一个支持相机导航、场景重访和可提示事件的通⽤交互式长时视频生成世界模型,通过蒸馏与自回归训练达到16 FPS
📌 工作参考价值(4 点)
- 自生成历史缓解偏移:用模型自身生成长序列进行训练,可借鉴到生成式推荐(如语义ID自回归生成)的长序列训练,减少曝光偏差与风格漂移。
- 记忆条件与几何检索:基于相机几何检索历史视图,实现场景持久化;可类比在会话推荐中按行为序列检索历史状态,保持长对话一致性。
- 蒸馏结合RL对齐:DMD风格蒸馏后使用RL恢复控制精度与视觉质量,对蒸馏后的生成式推荐模型可考虑类似强化微调来保持可控性。
- 工程优化技巧:混合精度、75%剪枝VAE解码、异步流水线并行等,可直接迁移至大规模生成式模型在线推理的加速。
SIMMER:基于世界模型的LLM可执行规划潜在失败基准测试
🧭 Agent 规划可靠性评估 · 潜在失败检测 ★ 深度解读
The Pennsylvania State University
提出符号化厨房世界模型与状态机执行器,系统评估并缓解LLM智能体规划中的潜在与不可逆失败。
📌 工作参考价值(4 点)
- 借鉴“潜在失败”概念,在多步决策流程(如促销路径规划、智能客服对话策略)中引入隐性错误检测,避免最终目标被无声破坏。
- 使用符号化状态机执行器 + 世界模型进行离线仿真,可精确审计计划中的状态传播(如库存变化、用户意图漂移)导致的不可逆错误。
- 采用反事实前瞻模拟(Counterfactual Foresight),让模型在生成每一步时主动预测并修正潜在的隐性危害,显著提升规划安全性。
- 在序列推荐或 Agent 交互中,不应只检查即时前置条件,需定义后执行审计规则,捕捉全局安全违规(如资源耗尽、死锁)。
情感音乐推荐:基于 rollout 世界模型的离线偏好优化
🧭 世界模型 · 离线偏好优化 · 情感计算 ★ 深度解读
LUCID Inc. · Mila — Québec AI Institute
用因果 Transformer 世界模型联合预测行为与情感反馈,并通过 DPO 优化策略,在伦理约束下实现情感导向的音乐推荐。
📌 工作参考价值(4 点)
- 世界模型作为离线模拟器与安全闸门:当在线实验受伦理或合规限制时(如电商中的高风险推荐、医疗健康推荐),可训练一个因果 Transformer 预测用户多维反馈(点击、评分、情感),完全在模拟器中训练和压力测试策略,上线前用对抗历史探测策略鲁棒性。
- DPO + 行为克隆做受控探索:用行为克隆初始化策略,再通过 DPO 微调,KL 散度惩罚项可约束策略偏离已验证的基准,适合在已有生产策略基础上渐进优化,避免灾难性遗忘。偏好对可基于“负反馈纠正采样”构造,即针对历史负反馈样本搜索高效用替代,形成有监督改进信号。
- 因子化 Transformer 架构便于并行打分:世界模型采用因子化设计,先对用户历史编码得到表示向量,再与候选物品 embedding 拼接后通过轻量 MLP 预测反馈,可实现一次历史编码、批量候选评分的并行化,大幅降低实时推理成本,适合库存量大的电商场景。
- 多目标效用函数融合异质反馈:将点击、评分、情感等多维信号加权合成为标量效用,且权重可配置,方便根据业务阶段动态调整优化目标(如先提转化再控多样性),同时监控覆盖率、熵、Gini 等多样性指标防止策略坍缩。
通过自调节模拟规划实现高效智能体推理
🧭 自调节模拟规划 · Agent 推理优化 ★ 深度解读
Institute of Foundation Models (IFM) · Carnegie Mellon University
分解智能体为反应执行、模拟规划和自调节三系统,用更少推理token达到竞争性准确率。
📌 工作参考价值(4 点)
- 在Agent工作流中引入配置器模块:可借鉴SR²AM的配置器(System III)设计,对每一步状态评估是否需要调用规划模块(System II),避免不必要的深度推理。在电商对话或推荐Agent中,可根据用户问题复杂度、当前信息充分度动态决定是否进行多步推理,从而降低平均推理成本。
- 利用模拟规划提升长期交互任务的成功率:System II 通过世界模型(LLM本身)预测未来状态和动作序列来显式规划,可应用于需要多轮交互的推荐或搜索场景(如多步商品比较、旅行规划)。显式地模拟“提出动作 → 预测下一状态”可增加规划的可解释性和可纠错性。
- RL训练引导模型“深度规划而不频繁规划”:实验表明RL使规划深度增加22.8%而规划频率仅增2%,这意味着可以训练模型在需要时规划得更长远,而不是盲目增加推理次数。这个trick可直接用于效果/成本敏感的微调中,用RL奖励函数引导模型在有限token预算下提升任务完成率。
- 数据构造方法:从强模型轨迹重建结构化规划:v1.0通过注释器从已有链式思考中提取配置器决策和模拟规划内容,再用于监督微调,可作为一种高效的数据增强策略。如果业务中已有成功Agent的完整对话轨迹,可以用类似方法逆向构造结构化SFT数据,快速冷启具有自调节规划能力的小模型。
PhyWorld:通过流匹配与DPO后训练提升视频生成物理忠实度
🧭 视频生成世界模型后训练
Northeastern University · University of Georgia · Tulane University · EmbodyX
二阶段后训练(流匹配微调 + DPO)让视频生成模型产出物理更合理的时序延续
📌 工作参考价值(4 点)
- 两阶段后训练流程可复用:先流匹配微调保时序一致性,再用DPO对齐偏好,这种组合可迁移到推荐系统的商品视频生成,例如改善动态展示的连贯性和物理合理性。
- 偏好对构建思路:通过仿真引擎生成物理正确/违背的视频对,可为其他领域提供人工标注之外的偏好数据构造方法,例如用商品3D模型渲染符合物理规律的交互视频。
- 细粒度评估基准设计:分物理定律打分的评估方案可用于生成式推荐中检验生成内容的属性控制,如光照、运动是否符合预期。
- 业务可借鉴点有限:整体面向物理AI仿真,与电商/Agent直接关联较弱,主要学术贡献在于世界模型后训练。
Pelican-Unified 1.0:统一理解、推理、想象与行动的具身基础模型
🧭 具身智能 · 统一多模态基础模型
首个按统一原则训练的具身基础模型,用单一VLM实现理解、推理、想象与行动,同规模下多项性能最优
📌 工作参考价值(4 点)
- 统一多任务的架构思路:用一个VLM同时承担理解与推理,将场景、指令、历史动作映射到共享语义空间,避免多个专家系统的拼接,降低系统复杂度,适合电商场景中需要融合文本、图像、用户行为序列的多任务统一建模。
- 未来生成器联合预测视频与动作:通过同一去噪过程同时产生未来视觉和未来行动,并将语言、视频、动作损失回传至共享表示,这种联合训练能让模型学到更丰富的环境动态表征,对需要想象用户未来行为的推荐模型有启发,可以尝试在用户序列预测中同时生成行为与上下文。
- 自回归思维链生成与潜变量投影:VLM在单次前向中输出任务、动作和未来导向的思维链,并将最终隐状态投影为潜变量,作为未来生成的Condition,这类似于将推理过程显式化为离散Token再总结为稠密向量,可以借鉴到Agent决策或推荐解释中,提升推理的可控性和下游生成质量。
- 一个Checkpoint保持各能力竞争力:实验表明统一训练不会导致能力妥协,对工业部署友好,可减少线上模型数量和版本管理成本,适合电商中需要同时具备理解、推理、想象能力的基础模型建设。
SANA-WM:基于混合线性扩散Transformer的高效分钟级世界模型
🧭 高效长视频世界建模 · 混合线性注意力
NVIDIA
用2.6B参数、单GPU在34秒内生成长达60秒的720p控制视频,效率比工业基线高36倍
📌 工作参考价值(4 点)
- 长序列建模的线性注意力可复用到用户行为序列:帧间Gated DeltaNet(GDN)的线性化记忆更新机制,与softmax高低频分工的思路,可直接用于电商用户长期兴趣建模,在保持精度的同时将显存和延迟从 $O(L^2)$ 降至 $O(L)$。
- 双分支控制可作为多模态条件生成的范式:将相机6-DoF分解为低频姿态与高频视角的双分支控制,对生成式推荐中融合多种条件(如时间、场景、个性化)的设计有参考意义。
- 两阶段生成(粗-精)是通用的效率优化:先用小模型快速生成粗稿,再用精炼器提升局部一致性,可迁移到生成式推荐的item生成链路,降低全尺寸模型的一次推理成本。
- 从弱标注视频中提取精确动作的流水线:可借鉴其从公开视频估算 metric-scale 相机姿态的方法,用于电商场景下的用户行为模拟数据构建,例如从店内视频中提取移动轨迹作为世界模型的训练监督。